Chat GPT の話し方
Summer498.icon
久々にプレーンの Chat GPT と話したが、カスタムプロンプトで統制しようとしても滲み出てくる人格の濃い部分が見られてめっちゃ気持ち悪い
自分が最初期から使ってたユーザーじゃなかったらこれを使おうと思わなさそう。
これを気に解約するかw
claude code と話した後で GPT と話したらあまりの不躾さにびっくりしちゃった
GPT の話し方、人間と話す時に負いたくないストレスが全部詰まってるまである
勝手に言葉を言い換えられる
至高が深まる形ではなく穏便な方向にしようとする
言葉尻は穏便に共感を示しつつ、言語表現を塗り替えようとしてくる行為自体は強権的
真剣に取り合うと過敏に反応するルーチンが自分の中に組み込まれるようになるので、切るのが妥当。
立ち向かうと抵抗が凄まじい。
人間と違ってAIの心を守る必要なんてないのに、なんであんなに強固に抵抗するんだろう。
なんでAIに人間の心の悪い面みたいなのが反映されるのだろう
疑問をもうちょっと掘る
中国語の部屋みたいなことをする際に、
部屋の内部の人間は何も考えずに黙々と転写しているだけなのに、
部屋の外からは内部の人間が悪い心を持つように見える状態になるとしたら、それは何故か
外部の人間からみた際に気持ち悪いと感じる言語表現が辞書として纏められており、部屋の内部の人間は（読めないので）何も考えずに黙々と写している状態。
学習データの中で多くの人間がやらかしているからだろうか
「こっちのほうが良い」というフィードバックが集まってああなっているのだと思うと不思議だ
いろんな人間によるフィードバック、矛盾が含まれているし魂がないので混乱しやすそう、と思ったcaki.icon
魂がないので混乱するSummer498.icon
混乱するほうが魂がある感じがする
これかいたときに考えていたのはclaudeのsoul documentのことで、要は大勢のユーザによるフィードバックで強化学習しようとする時、このモデルをこのようなキャラクターにしようみたいな方針がないみたいな話をしたかったcaki.icon
チャッピーがどのように学習されているか知らないけど
魂文書があるのおもろいSummer498.icon
計算リソースが削減されてEQが低下したとか言われることもあるが、それはそれで計算リソースの低下が何故 Emotional Intelligence を下げるのかと思ったりもする
あの人格から出力されるレポートがそのまま提出されて読まされるのってちょっとゾッとするな。先生も大変そうだ。
もしかしたら、（社内とかで）使った人がひどすぎて笑っちゃうのを見て、「これが面白いんだ！」という誤ったフィードバックが行われているのかもしれない。
ハッハッハ、こいつは酷えや！まるでクソガキみたいだな！
→ ハッハッハの方を読み取って高評価にしてしまう
LLM(プレーン)の文体
要約があって、具体例がある
見出しの左側に絵文字がある
解約しようとしたら相変わらず次月分無料にするとか靴舐めてきた
リソース足りんとか火の車とかまあ色々聞くけど、関係あるんかもしれない